随着带宽需求的不断增长，多维多阶调制格式成为目前研究的热点。文章对8PSK(3阶相移键控)、8QAM(3阶正交调幅)和16QAM(4阶正交调幅)的实现方式从原理和拓扑结构上进行了综合性的比较研究。使用已商用的调制器件，通过串行或串并混合的结构配置，可以得到8PSK、8QAM和16QAM的调制光信号;而使用并行结构的配置方式，可以提高系统的集成度和信号的传输性能，但往往需要多个并行配置调制的新结构，对系统集成的成本和工艺提出了苛刻的要求。

随着波分复用(WDM)、偏振复用(PDM)和高阶调制等技术的使用，单模光纤的传输容量已经快速接近其香农极限。目前有望突破该极限的方法是空分复用(SDM)，这使得多模光纤重新受到关注。基于多模光纤的多输入多输出(MIMO)技术是解决信息爆炸式增长的新领域。研究并比较了光MIMO系统的各种实现方式，其中重点介绍了模群分集复用(MGDM)技术；同时也阐述了相干多输入多输出系统(COMIMO)相应的内容。最后指出多模光纤MIMO系统中存在的问题，以期对以后的研究有所裨益。

随着各种多媒体业务的发展，对更高信道容量、更广服务覆盖范围以及宽带无线接入系统的强烈需求，使得基于光纤的无线信号传输(ROF)迅速发展起来。一些新型的技术如相干技术、多边带技术、多输入多输出（MIMO）技术、正交频分复用（OFDM）技术等，在ROF中的理论研究与应用也日趋完善，将其应用到射频无源光网络(RPON)系统中有望解决目前ROF接入的技术瓶颈，并改善ROF系统的性能。讨论和分析了这些新技术的原理，以及将其应用到ROF中的优缺点，以期为未来的研究提供一些参考。

研究了基于双臂马赫曾德尔调制器（MZM）产生全光正交频分复用信号的原理，讨论了正交光子载波的产生由MZM的射频驱动和直流偏置电压决定的特性；并对基于载波抖动对系统的损伤定义了一个新的参数载波均衡，以准确地描述产生全光正交频分复用载波的传输性能。根据选择的载波均衡参数，得到了产生2,3,4和5条正交光载波的最佳工作点；在接收端采用改进的马赫曾德尔延时干涉仪和光门实现全光离散傅里叶变换，并测得了光门的相位取值和接收端滤波器带宽对接收信号误码性能的影响；最后研究了基于5条正交光边带100 Gb/s全光正交频分复用的传输系统性能。

光通信中如何提高传输速率和光谱效率已成为目前研究的热点，采用先进的调制格式是实现上述要求的关键途径，其中正交调制格式就是方法之一。文章介绍了一种研究计算多维多阶正交调制信号误码率的方法，首次推导出了多阶相位调制信号的解析表达式以及基于这种计算方法的仿真结果，并讨论了消光比等参数对误码率的影响。

提出并证明了一种基于副载波单边带分插复用的正交频分复用无源光网络(OFDM-PON)系统的新型结构。该结构的下行传输是基于单边带的OFDM-4-正交幅度调制(QAM)，传输速率为10 Gbit/s；而上行传输则是利用下行信号中保留的另一条边带进行2.5 Gbit/s速率的幅移键控(ASK)调制，采用时分多路接入方式。该方案可以较好地避免双向传输中的后向瑞利散射，考虑后向散射情况下，下行信号功率代价＜0.8 dB，上行信号功率代价＜1.8 dB。

随着接入网带宽需求和业务支持需求的快速发展，环形结构的无源光网络(PON)的应用越来越重要，更长距离、支持更多光网络单元、与环形网络无缝融合已经成为PON在城域网中继续发展的3大要求。文章详细论述了新型环树融合拓扑结构的PON的原理及关键技术，讨论了这种新型结构的典型应用，总结了不同方案的优缺点，为未来接入网与城域网更深层次的融合发展的研究提供参考。

Optical frequency shift keying (FSK) homodyne detection utilizing image rejection in FSK/amplitude shift keying (ASK) re-modulation wavelength-division-multiplexed passive optical network (WDM-PON) is proposed and demonstrated. Image rejection is adopted to achieve better performance. We show the result in back-to-back and 40-km distance respectively and apparent improvement is obtained in the latter situation by using image rejection. Several factors which affect the image rejection receiver are analyzed in order to find out the optimum parameters. Result shows that the presented scheme is suitable for super long reach access network, especially for future metro access network.

A novel scheme to generate, transmit, and receive an optical orthogonal frequency division multiplexing (OFDM) continuous phase modulation (CPM) signal, which is combining minimum shift keying (MSK) coding with OFDM optical modulation, for downlink application in a 4×2.5-Gb/s wavelength division multiplexing (WDM) passive optical access network, is proposed and experimentally validated. We also realize wavelength remodulation for carrying upstream on-off keying (OOK) data to reduce the cost budget at the optical network unit. The experimental results show that the power penalties for the downlink and the uplink data after transmission over 25-km SMF-28 fiber are 0.1 dB and smaller than 0.4 dB, respectively.